Real-Coded Gentic Algorithm using Bayesian Network as Genetic Operator

In this paper, we propose, Gaussian Optimization Algorithm (GOA), which generate a new search point by using gaussian network and estimation of distribution. Algorithms where offsprings (new search points) are generated according to estimated probability model of the parents are called Estimation of Distribution Algorithms (DEAs) or Probabilistic Model-Building GAs (PMBGAs). The proposed GOA is one of the DEAs. The GOA can apply for continuous optimization problems and elements of gaussian network are design variables. In the GOA, by using Q values, graph structure of gaussian network is chosen probabilistically from the candidate networks. Q Learning decides these Q values of the candidate networks and these values are reinforced during the searching. Through the numerical examples, the effectiveness of GOA is examined with standard test functions. From the results, it is made clarified that GOA can find a good solution with smaller calculation costs, especially in the test function that has epstasis between the design variables. In this paper, the gaussian network which is derived from the GOA is discussed. Analyzing the derived network, some important design variables are determined. 1 はじめに 一般的な遺伝的アルゴリズム(Genetic Algorithms: GA) 2) では新しい探索点(個体)を生成するために交 叉,突然変異が用いられる.交叉には親個体のもつ良好な 部分解を交換するという利点があるが,同時に部分解を 破壊する可能性もあることが知られている 3) .近年,こ の問題を解決するための新しいアプローチとして母集団 内の個体の統計的な情報を用いて個体を生成する確率モ デル GAに関する研究がさかんに行われている.本研究 では,実数値の染色体をもつ GAにおいて,個体の生成 を Q-Learningによって学習されたベイジアンネットワー ク(ガウシアンネットワーク)に基づいて生成するガウ シアン最適化アルゴリズムを提案する. 2 確率モデルGA 2.1 GAの問題点 GAは生物の進化の過程を工学的に模倣した最適化手 法であり,さまざまな問題に適用可能であるが,一般に 次のような問題点が知られている 2) . ・パラメータ設定が困難 ・計算時間の増大 ・良い形質の継承が困難 ・最適解の保証がない これらのうち,形質の継承には GAの交叉オペレータ の影響が大きい.交叉の役割やその有効性については多 くの報告がなされている.交叉は短いサブ問題から構成 される問題や,小規模な問題においては効率よくビルディ ングブロックを構成することが可能だが(ビルディング ブロック仮説 1) ),一方で,新しくビルディングブロッ クを発見するのは稀であり,むしろ親個体のもつビルディ ングブロックを破壊する場合が多いと報告されている 3) . 近年このような従来の GAの問題を解決する方法として 確率モデル GA(Probabilistic Model-Building Genetic Algorithms: PMBGAs)に関する研究がさかんに行われ ている 4) . 2.2 分布推定アルゴリズム 確率モデル GAでは,従来の GAと同様にランダムに 初期母集団を生成する.母集団内から選択オペレータに よって有望な個体が選択される.従来のGAが交叉によっ て新しい個体を生成するのに対し,確率モデル GAでは 選択された個体群の確率分布の推定が行われ,この分布 に従って新しい個体が生成される.この処理を終了条件を Construct probabilistic model Probabilistic Model Select promissing individuals Generate new individuals, and Replace old individuals with new ones Estimation of distribution Population Fig. 1 分布推定アルゴリズムの基本概念 満たすまで繰り返すことで解探索を行う.このような原理 に基づいた手法は分布推定アルゴリズム(Estimation of Distribution Algorithms :EDA)とも呼ばれる 5) .EDA の概念図を Fig. 1に示す. 確率モデル GAは,コーディング法(バイナリストリ ングまたは実数)とビット間の依存関係を考慮するか否 かで分類が可能である.バイナリストリングの染色体を 持つモデルの先行研究は多く,さまざまな手法が提案さ れている 4) .設計変数間の依存関係を考慮しない手法と しては,PBIL(Population Based Incremental Learning Algorithm), UMDA(Univariate Marginal Distribution Algorithm), cGA(compact GA)がある.これらはい ずれも設計変数間に依存関係のない問題においては効率 的な探索が期待できる. 設計変数間の依存関係を考慮したものとしては,2変数 の関係を考慮したものに MIMIC(Mutual-InformationMaximization Input Clustering)がある.また多変量の 依存関係を考慮した手法に,ECGA(Extended Compact GA)や確率モデルにベイジアンネットワークを用いた BOA(Bayesian Optimization Algorithm)がある.こ れらの手法は多変量の依存関係の解析と確率モデルの構 築に計算量が必要となるが,変数間に複雑な依存関係が 存在する問題においても有効に機能すると期待できる. 一方,実数値の染色体を持つ確率モデル GAの研究は 少ない.そこで,本論文では実数値の確率モデル GAに おいてベイジアンネットワークを用いて個体を生成する 手法を提案する.ただし,一般にベイジアンネットワー クでは離散値を扱うことが多いが,連続変数を扱うため には確率密度関数として正規分布を利用することがある. このようなベイジアンネットワークを特にガウシアンネッ トワーク 7) と呼ぶ.そこで,本論文では提案する手法を ガウシアン最適化アルゴリズム(Gaussian Optimization Algorithm: GOA)と呼ぶことにする.GOAにおいては, ネットワークのグラフ構造は Q-Learnigによって学習さ れる. 3 ベイジアンネットワーク ここでは,GOAにおいて個体の生成に用いられるベイ ジアンネットワークについて簡単に述べる.一般に,確 Estimation of distribution Construct network Select better individuals Bayesian network (Gaussian network) Q-Value Q-Learning Replace Generate new individuals